【新智元導讀】輝達發布行動工作站產品線最後一塊拼圖，號稱與競品相比效率提升14倍。隨著今年大量AI消費級硬體的上市，AI應用的門檻徹底被老黃打下來了。

在巴塞隆納舉行的世界行動大會（MWC 2024）上，輝達發表了最新的入門級行動版工作站GPU，RTX 500 Ada和RTX 1000 Ada。

這兩款入門級行動工作站GPU與先前發表的RTX 2000、3000、3500、4000和5000一起，構成了輝達行動工作站GPU的整個產品線。

根據輝達官方的說法，配備了入門級GPU的筆記型電腦，相較於使用CPU來處理AI任務的設備，效率能暴增14倍！

這兩款新的GPU，將在今年第一季搭載在OEM的合作夥伴推出的筆記型電腦中上市。

入門級工作站移動GPU，補全產品線的最後一塊拼圖

從耗電量上我們就能看出來，這兩款入門級的產品基本上是針對輕薄本推出的產品。

雖然配備的核心數，內存數遠低於產品線中的其他訊號，但是Ada架構所支援的特性卻是一點沒有縮水。

光線追蹤性能是前代的兩倍，實現了高度真實感的渲染效果。

處理速度是上一代的兩倍，加快了深度學習訓練、推理過程和AI驅動的創意任務。

相較於前代，單精度浮點（FP32）處理能力提高了30%，在圖形處理和計算任務上大幅提升了效能。

RTX 500搭載了4GB內存，而RTX 1000則配備了6GB內存，足以應對複雜的3D和AI應用，處理大型項目和數據集，以及多應用並行工作流程。

這項AI圖形技術的突破性進展，透過產生更多高品質畫面顯著提高了效能。

第八代編碼器（NVENC）支援AV1編碼，比H.264編碼高效40%，為視訊直播、串流媒體和視訊通話提供了更多可能。

基於Ampere架構的上一代產品，RTX A500和RTX A1000的核心數都只有2048。

這一代更新後的RTX 500 Ada，保留2024個核心數不變，但是RTX 1000 Ada的核心數就提升了1/4，達到2560個，記憶體直接標配6GB。

而且比較上一代產品，輝達這兩個型號的GPU功率都有了不小的提升。

RTX 500從20-60W提升到了35-60W，RTX 1000從35-95W提升到了35-140W，而RTX 1000也支援了Dynamic Boost，功耗可以再額外提升15W。

AI應用進入日常生活，入門級GPU大有可為

輝達稱，與單純依賴CPU的配置相比，新款RTX 500 GPU能夠在執行像Stable Diffusion這類模型時，提供高達14倍的AI效能。

此外，AI照片編輯速度提升3倍，3D渲染的圖形效能提升了10倍，將為各種工​​作流程帶來了巨大的生產力飛躍。

隨著生成式AI和混合式工作環境日益成為常態，從內容創作者到研究人員，再到工程師，幾乎所有專業人士都需要一款功能強大的、支援AI加速的筆記型電腦，以便在任何地點都能有效應對產業挑戰（加班）。

隨著各大硬體廠商都在佈局AI PC和AI手機，可以預料在不遠的將來，除了專業的開發者和內容創作者之外，普通老百姓也會在日常生活中接觸到大量的AI應用。

老黃在MWC如此重要的場合，拋出的卻是兩款最入門的行動GPU。

這似乎就是在對外宣稱，在算力巨頭眼裡，普通的消費者也同樣能夠享受到科技普及帶來的紅利。

而傳統的CPU廠家，也在今年初推出了自己帶有AI能力的產品，希望從產品形態和輝達形成差異化競爭。

AMD第一代基於XDNA架構的神經處理單元（NPU）去年上市，作為其「Phoenix」Ryzen 7040行動處理器系列的組成部分。

其中，XDNA透過一系列特殊設計的AI Engine 處理單元組成的網路來實現空間資料流處理。

每個AI Engine單元都配備了一個向量處理器和一個標量處理器，還有用於儲存程式和資料的本機記憶體。

這種設計避免了傳統架構中頻繁從快取中讀取資料所帶來的能量消耗，透過使用板載上記憶體和專門設計的資料流，AI Engine能夠在AI和訊號處理任務中實現高效和低功耗的計算。

幾個月後，英特爾推出了同樣配備NPU的Core Ultra「Me t e or Lak e」架構架。

英特爾的Meteor Lake SoC將CPU，NPU，GPU結合在一起，來應對未來可能出現的不同AI應用。

Meteor Lake擁有三個功能齊全的AI引擎，Arc Xe-LPG顯示卡保證了AI需求的算力上限。

相較之下，NPU及其兩個神經運算引擎用來承擔持續的人工智慧工作負載，以進一步提高能源效率。

CPU本身以及Redwood Cove（P）和Crestmont（E）核心的組合可以以更低的延遲處理AI工作負載，從而提高精度。

最近有消息稱，微軟最新推出的Windows 11 DirectML預覽版將為Core Ultra NPU提供初步支援。

隨著微軟在作業系統層面對於AI的全面更新和支持，英特爾和AMD在CPU中加入了應對AI負載的NPU，入門級AI應用的硬體競爭必將越演越烈。

在地化運行自己的大模型，輝達誓要將AI應用的門檻打下來

除了不斷更新自己的硬體收割科技大廠，輝達在前段時間也上線了自己第一款支援本地運作的大模型系統－Chat with RTX。

它可以讓用戶利用手上的消費級GPU在地化地運行開源LLM，利用用戶自己的數據和知識庫，客製一款專屬的聊天機器人。

這是輝達推出的第一款針對一般消費者的AI應用。

簡單來說，它就是輝達自己推出的開源大模型啟動器，目的是讓沒有技術背景的消費者能夠真的在自己的設備上運行大型模型。

使用者想要運行Chat with RTX的要求也非常簡單，只要是使用輝達消費級的30/40系的顯示卡，或者Ampere/Ada GPU，擁有16G的內存，100G的空餘硬碟空間，就能使用。

安裝模型的時候，會自動根據顯存提供支援的模型。

安裝完成後，透過瀏覽器介面就能直接使用聊天機器人了。

而現階段，只支援開源的Mistral 7B和Llama2 13B。

但因為顯存的關係，剛發表的RTX 500和1000 Ada似乎還不能運作這個系統。

但主要是因為兩款支援的開源模式尺寸對於消費級GPU來說還是比較大。

如果未來輝達能讓Chat with RTX支援更多的開源模型，比如說微軟前段時間推出的Phi-2 2.7B，那麼即便是4G顯存的RTX 500Ada也將可以在地化地跑大模型了。（新智元）

https://blogs.nvidia.com/blog/rtx-ada-ai-workflows/

黃仁勳(Jensen Huang) 再向業界丟下重磅「核彈」。

台北時間2月26日，市值2兆美元的AI 晶片巨頭輝達（NVIDIA）宣布推出全新NVIDIA RTX 500 和1000 Ada一代消費級GPU（圖形處理器）加速晶片，全面支持在輕薄筆記型電腦等行動裝置中運行生成式AI（AIGC）軟體。

輝達表示，與僅使用CPU的配置相比，全新RTX 500 GPU可為Stable Diffusion等模型提供高達14倍（1400%）的AIGC效能，AI 照片編輯的速度提高3倍，3D渲染性能提高10倍，從而全面提升生產力效率。

作為入門款GPU產品，輝達RTX 500將成為全球內建AIGC技術且價格最便宜的GPU晶片。

同時，這也意味著，黃仁勳持續降低AI PC設備門檻，即將大量出貨輝達GPU晶片，消費者「買筆電送AI 」的時代真的要來了！

據悉，輝達RTX 500和RTX 1000均採用與RTX 4090、L40伺服器GPU一樣的Ada Lovelace架構，或採用台積電4N（5nm）工藝，擁有神經處理單元(NPU)、第三代RT 核心、第四代Tensor Core、Ada一代CUDA核心、專用GPU記憶體、DLSS 3光線追蹤技術、第八代NVIDIA AV1（NVENC）編碼器等一系列旗艦AI 晶片才擁有的重要配置。

輝達稱，隨著AIGC和混合工作環境成為新標準，無論是內容創作者、研究人員還是工程師，幾乎每位專業人士都需要一台強大AI 加速功能的筆記型電腦來幫助使用者應對產業挑戰。而RTX 500 和1000 GPU 透過AI 為各地緊湊型設計的筆記型電腦使用者提升工作流程。

具體來說，首先，基於NVIDIA Ada Lovelace 架構，RTX 500 和1000 GPU晶片擁有第三代RT 核心，光線追蹤效能比上一代提升了2倍，可實現高保真、逼真的渲染。

其次，搭載第四代Tensor Core AI 加速技術下，RTX 500 和1000 GPU吞吐量是上一代的2 倍，可應用於深度學習訓練、推理和基於AI 的創意工作負載。

再次，與上一代相比，擁有最新CUDA核心的RTX 500 和1000 GPU，單精度浮點(FP32) 吞吐量提高30%；而第八代NVIDIA 編碼器支援AV1，效率比H.264 高出40 %。

最後，RTX 500 GPU 配備4GB GPU專用內存，RTX 1000 GPU 配備6GB GPU專用內存，可處理更大的項目、資料集和多應用工作流程，全面支援部分複雜3D場景和AI 應用研發。

另外，內建NPU的RTX 500 和1000 GPU晶片，可提供最高193 TOPS 的AI 效能，滿足日常AI 工作流程。如果你希望利用AI 來實現深度學習、資料科學、進階渲染等工作流程，輝達也提供RTX 2000、3000、3500、4000 和5000 Ada筆記型電腦GPU，最高支援682 TOPS 的AI 效能。

很顯然，黃院士的想法是：一旦要用AI，就要買輝達GPU顯示卡。沒有更高效能的CPU難以開發和使用AIGC 應用程式。

「你買的越多，你省的就越多。」黃仁勳曾說。（The more You buy，the more You save ）

輝達透露，全新NVIDIA RTX 500 和1000 Ada 世代筆記型電腦GPU 將於今年春天在戴爾、惠普、聯想和MSI 等行動工作設備中應用。

實際上，在AI 時代下，鈦媒體App編輯手中的一台Redmi Book 15E，由於沒有內置NVIDIA獨立顯卡，因此，我們安裝很多支持CUDA如NVIDIA App等多款AI 應用就會顯示“安裝無法繼續” ——很顯然，GPU已深深改變了我們的生活。

近期公佈的輝達最新財報顯示，2024財年，輝達收609.22億美元，年增126%；淨利年增581%，至297.60億美元，成為地表最強的公司。

受利多業績影響，輝達美股持續大漲。

2023年，輝達股價已累計上漲236%，進入2024年英輝達價短短兩個月漲幅又超過63.05%，最新市值約2兆美元。

如今，在新的AI 時代下，全球科技巨頭排行發生了重大變化：輝達超越了谷歌、亞馬遜等一眾巨頭，已成為全球第三大科技公司，僅次於微軟、蘋果。

隨著股價暴漲，輝達聯合創辦人兼CEO黃仁勳身價也水漲船高，最新增加85億美元，至681 億美元，成為全球第21位最富有的人。

黃仁勳不僅超越科氏工業CEO查爾斯‧科赫(Charles Koch)，也成功超越中國首富、農夫山泉創辦人兼董事長鐘睒睒。

對於中國市場，輝達也首次提到，華為是輝達重要的競爭對手之一。同時，黃仁勳對外確認，輝達向客戶提供A100/H800 AI 晶片的替代樣品，同時遵守了美國商務部半導體出口管制規定。

黃仁勳最近接受《Wired》對話時坦言，華為是非常好的公司。儘管他們受到現有半導體處理技術的限制，但他們仍然可以透過將許多晶片聚集在一起來建立非常強大的系統。

黃仁勳強調，輝達非常期望去中國市場進行業務競爭，並希望「我們能夠成功地服務市場」。

2月26日晚，美國儲存晶片巨頭美光科技（Micron Technology）宣布，該公司已開始大量生產其用於AI加速的先進Micron 24GB HBM3E內存方案，提供高達1.2 TB/s頻寬，相比競爭對手功耗降低30%，應用於輝達H200 Tensor Core GPU，最快將於2024年第二季出貨。

隨著輝達A100、H100晶片的成功量產，輝達瞄向AI 超算雲Nvidia DGX Cloud、AI 軟體棧Nvidia AI Enterprise等全新業務。

黃仁勳先前表示，生成式AI 讓每個（軟體）企業都擁抱加速運算，提高吞吐量，而輝達將利用Nvidia AI Enterprise，對這些企業所有的軟體堆疊進行管理、優化、修補。而Google成為了Nvidia AI Enterprise的最新合作方。

「我們將其推向市場的方式是將Nvidia AI Enterprise 視為作業系統，每年每個GPU 收取4500 美元。我的猜測是，世界上每一家在專有雲和私有雲中部署軟體的軟體企業公司，都將在Nvidia AI Enterprise 上運行。」黃仁勳表示。

半導體行業機構Futurum Research 首席執行官丹尼爾·紐曼(Daniel Newman) 認為，“英特爾曾經是業界的霸主。而現在，很多公司正聯合起來，以確保輝達不會變得太強大。”

綜合多方消息，3月18日舉行的GTC大會上，輝達將推出基於下一代Blackwell GPU架構的新款B100 AI晶片，採用台積電3nm製程製程、三星提供最新HBM儲存技術，據推測B100效能至少是H200的兩倍、也就是H100的整整四倍，預計B100將成為全球最強大的AI 晶片。（鈦媒體）

彙整鉅亨號中所有使用「RTX 500」關鍵字，所發布的內容 (依照時間排序，最新在前，舊的在後)`

黃仁勳祭出全新RTX 500 GPU，AIGC效能狂飆14倍！AI應用的門檻徹底被打下來了

黃仁勳丟重磅“核彈”，全新輝達RTX 500顯卡AIGC性能提升高達1400%，AI PC時代真要來了